Thinking Outside the Box: Can Language Models Rely on External Guidance Selectively?
跳出盒子思考：语言模型能否选择性依赖外部指导？
🧭 Agent 工作流选择性依赖评估与训练 ★ 深度解读
Southern University of Science and Technology · City University of Hong Kong
提出 Box2-Bench 评估 Agent 在工作流可靠性变化时的选择性依赖，发现模型会用但难弃坏指导，反事实 SFT 加 RL 可训练选择性
📌 工作参考价值（4 点）
- 在电商/导购/售后等 SOP 型 Agent 中，外部 workflow 可能过时或误导，可用 Box2 的 paired evaluation：固定任务和模型，只变 workflow 的 Good/Bad/Partial/Mixed 四种可靠性，能分离模型自身能力与流程依赖，避免只看端到端准确率掩盖流程鲁棒性。
- 训练技巧可直接复用到业务 Agent：只用 bad workflow 数据做 counterfactual SFT（问题+错误流程→验证过的正确轨迹），让模型学会无视误导流程；再叠加 outcome-based RL（GRPO）恢复对好流程的利用，避免模型对所有流程都变得抗拒。
- 该两阶段训练会泛化到多 Agent 协商和 memory-augmented RAG：训练后模型对不可靠的 peer 建议和 corrupted memory 更倾向验证而非盲从，适合需要多 Agent 协作或记忆增强的推荐/搜索场景。
- 在 workflow 频繁变化的业务中，RL 奖励只看最终结果、不约束中间路径，允许模型动态决定何时偏离流程，可作为上线前鲁棒性筛选或流程迭代的辅助手段。